EnvFactory: Scaling Tool-Use Agents via Executable Environments Synthesis and Robust RL
EnvFactory：通过可执行环境合成与鲁棒RL扩展工具使用智能体
🧭 Agent 工具使用训练环境与数据合成 ★ 深度解读
LARK, HKUST (GZ) · Huawei Technologies Co., Ltd · University of Cambridge · UCL · HKUST
全自动构建有状态可执行工具环境并生成自然多轮隐式意图轨迹，高效训练工具使用Agent
📌 工作参考价值（4 点）
- 电商代码沙盒环境自动化构建：借鉴EnvFactory的Search-Code-Test多Agent协作，可针对电商核心API（商品搜索、下单、物流查询等）自动生成可执行的MCP服务器，用于训练智能客服或购物助手，确保执行可靠且状态隔离。
- 自然隐式意图的多轮数据合成：拓扑感知采样与校准细化策略可将多个API调用链转换为含歧义、省略参数的真实用户请求，例如“帮我查一下最近那个订单”，要求Agent自行推断订单ID。这种数据对训练Agent的上下文推理能力十分有效，可直接用于电商场景SFT数据增强。
- 复合奖励函数设计：论文提出的轨迹匹配奖励 + 最终状态等价奖励 + 长度惩罚的复合RL奖励框架，可避免单一奖励偏差。在电商智能体中训练工具调用策略时，可保证正确执行的同时控制冗余工具调用。
- 资源高效训练范式：仅用85个环境、2500+条轨迹即可大幅提升小模型（1.7B/4B）的多轮工具使用能力，为电商业务中快速迭代、低成本训练提供参考：优先保证环境验证质量与轨迹自然度，而非盲目追求数量。